{
 "cells": [
  {
   "cell_type": "markdown",
   "metadata": {},
   "source": [
    "# 从密集层到卷积层\n",
    "\n",
    "到目前为止我们讨论过的模型\n",
    "（直到今天）保留适当的选择\n",
    "当我们处理表格数据时。\n",
    "我们所说的*表格*是指数据由\n",
    "对应于示例的行数\n",
    "和对应于特征的列。\n",
    "有了表格数据，我们可以预测\n",
    "我们寻求的模式可能涉及\n",
    "功能之间的交互，\n",
    "但我们并没有假定任何结构是*先验的*\n",
    "关于功能如何交互。\n",
    "\n",
    "有时，我们真的缺乏知识来指导\n",
    "建造更精巧的建筑。\n",
    "在这些情况下，多层感知器\n",
    "也许是我们能做的最好的了。\n",
    "然而，对于高维感知数据，\n",
    "这些*无结构*的网络可能会变得笨拙。\n",
    "\n",
    "例如，让我们回到我们正在运行的示例\n",
    "区分猫和狗的方法。\n",
    "说我们在数据收集方面做得很彻底，\n",
    "收集100万像素照片的注释数据集。\n",
    "这意味着网络的每个输入都有*100万个维度*。\n",
    "甚至大幅减少到*1000个隐藏维度*\n",
    "需要一个*密集*（完全连接）层\n",
    "以 $10^9$ 参数为特征。\n",
    "除非我们有很多GPU，一个天才\n",
    "对于分布式优化，\n",
    "还有非凡的耐心，\n",
    "学习这个网络的参数\n",
    "结果可能是不可行的。\n",
    "\n",
    "细心的读者可能会反对这一论点\n",
    "基于100万像素的分辨率可能不是必需的。\n",
    "然而，尽管我们可能\n",
    "为了避开10万像素，\n",
    "我们的隐藏层尺寸$1000$被严重低估了\n",
    "所需的隐藏节点数\n",
    "为了学习图像的良好表现，\n",
    "因此，一个实用的系统仍然需要数十亿个参数。\n",
    "此外，通过拟合如此多的参数来学习分类器\n",
    "可能需要收集大量数据集。\n",
    "然而今天，人类和计算机都能\n",
    "为了更好地区分猫和狗，\n",
    "似乎与这些直觉相矛盾。\n",
    "这是因为图像具有丰富的结构\n",
    "可以被人类利用\n",
    "以及机器学习模型。\n",
    "卷积神经网络是一种创造性的方法\n",
    "机器学习已经被用来开发\n",
    "自然图像中的一些已知结构。\n",
    "\n",
    "\n",
    "## 不变性\n",
    "\n",
    "假设你想检测图像中的一个物体。无论我们使用什么方法来识别物体，都不应该过分关注物体在图像中的精确*位置*，这似乎是合理的。理想情况下，我们的系统应该利用这些知识。猪通常不会飞，飞机通常不会游泳。尽管如此，我们仍然应该认识到，一头猪出现在图片的顶部。我们可以从儿童游戏《Waldo在哪里》（如 :numref:`img_waldo`）中得到一些启发。该游戏由许多充满活动的混乱场景组成。Waldo出现在每个城市的某个地方，通常潜伏在某个不太可能的地方。读者的目标是找到他。尽管他有着独特的着装，但由于有大量的干扰，这可能会出人意料地困难。然而，*Waldo的长相*并不取决于*Waldo的位置*。我们可以用Waldo探测器扫描图像，该探测器可以为每个斑块指定一个分数，表明斑块中含有Waldo的可能性。CNN系统化了这种空间不变性的概念，利用它来学习具有少量参数的有用表示。\n",
    "\n",
    "<img src=\"https://github.com/d2l-ai/d2l-en/blob/master/img/where-wally-walker-books.jpg?raw=true\" width=\"400px\"/>\n",
    "\n",
    ":label:`img_waldo`\n",
    "\n",
    "我们现在可以让这些直觉更加具体\n",
    "通过列举一些需求来指导我们的设计\n",
    "适用于计算机视觉的神经网络体系结构：\n",
    "\n",
    "1. 在最早的层次中，我们的网络\n",
    "    应该对同一个补丁有类似的反应，\n",
    "    无论它出现在图像中的什么位置（平移不变性）。\n",
    "1. 网络的最早层次应该集中在本地区，\n",
    "   不考虑遥远地区（地区）图像的内容。\n",
    "   最终，这些局部表示可以聚合\n",
    "   在整个图像级别进行预测。\n",
    "\n",
    "让我们看看这是如何转化为数学的。\n",
    "\n",
    "\n",
    "## 约束MLP\n",
    "\n",
    "首先，我们可以考虑一个MLP。\n",
    "以 $h \\times w$ 图像作为输入\n",
    "（在数学中表示为矩阵，在代码中表示为2D数组），\n",
    "以及**类似组织的隐藏表示\n",
    "为 $h \\times w$ **matrices / 2D arrays**。\n",
    "让这一点深入人心，我们现在不仅想到了输入，而且想到了\n",
    "同时，隐藏的表征也具有空间结构。\n",
    "让 $x[i, j]$ 和 $h[i, j]$ 表示像素位置 $(i, j)$\n",
    "分别在输入图像和隐藏表示中。\n",
    "因此，每个 $h \\times w$ 隐藏节点\n",
    "从每个 $h \\times w$ 输入接收输入，\n",
    "我们将不再使用权重矩阵\n",
    "（正如我们之前在MLPs中所做的那样）\n",
    "来表示我们的参数\n",
    "作为四维重量张量。\n",
    "\n",
    "我们可以将这个密集层正式表示为：\n",
    "\n",
    "$$h[i, j] = u[i, j] + \\sum_{k, l} W[i, j, k, l] \\cdot x[k, l] =  u[i, j] +\n",
    "\\sum_{a, b} V[i, j, a, b] \\cdot x[i+a, j+b].$$\n",
    "\n",
    "从$W$到$V$的转换完全是装饰性的（目前）\n",
    "因为有一对一的通信\n",
    "在两个张量的系数之间。\n",
    "我们只需重新索引下标 $(k, l)$\n",
    "比如 $k = i+a$ 和 $l = j+b$。\n",
    "换句话说，我们设置 $V[i, j, a, b] = W[i, j, i+a, j+b]$。\n",
    "指数$a，b$既有正的抵消，也有负的抵消，\n",
    "覆盖整个图像。\n",
    "对于隐藏层 $(i, j)$ 中的任何给定位置 $h[i, j]$\n",
    "我们通过对像素求和来计算其值，单位为 $x$，\n",
    "以 $(i, j)$ 为中心，加权为 $V[i, j, a, b]$。\n",
    "\n",
    "现在让我们引用第一条原则\n",
    "如上所述：*平移不变性*。\n",
    "这意味着投入的变化是$x$\n",
    "只会导致激活$h$发生变化。\n",
    "只有当$V$和$u$实际上不依赖于 $(i, j)$时，这才是可能的，\n",
    "我们有$V[i, j, a, b] = V[a, b]$，而 $u$ 是一个常数。\n",
    "因此，我们可以简化 $h$的定义。\n",
    "\n",
    "$$h[i, j] = u + \\sum_{a, b} V[a, b] \\cdot x[i+a, j+b].$$\n",
    "\n",
    "这是一个复杂的问题！\n",
    "我们有效地对像素进行加权 $(i+a, j+b)$\n",
    "在 $(i, j)$ 附近，系数为 $V[a, b]$\n",
    "获取值 $h[i, j]$。\n",
    "请注意， $V[a, b]$ 需要的系数比 $V[i, j, a, b]$少得多。\n",
    "对于100万像素的图像，它最多有100万个系数。\n",
    "这比以前少了100万个参数\n",
    "不再依赖于图像中的位置。\n",
    "我们取得了重大进展！\n",
    "\n",
    "现在让我们来引用第二个原则---*局部性*。\n",
    "如上所述，我们认为我们不应该\n",
    "远离$(i, j)$\n",
    "为了搜集相关信息\n",
    "评估在 $h[i, j]$下发生了什么。\n",
    "这意味着在某个范围之外 $|a|, |b| > \\Delta$，\n",
    "我们应该设置 $V[a, b] = 0$。\n",
    "等价地，我们可以将 $h[i, j]$ 重写为\n",
    "\n",
    "$$h[i, j] = u + \\sum_{a = -\\Delta}^{\\Delta} \\sum_{b = -\\Delta}^{\\Delta} V[a, b] \\cdot x[i+a, j+b].$$\n",
    "\n",
    "简而言之，这是一个回旋层。\n",
    "当局部区域（也称为*接受域*）很小时，\n",
    "与完全连接的网络相比，差异可能是巨大的。\n",
    "而之前，我们可能需要数十亿个参数\n",
    "为了仅表示图像处理网络中的一个层，\n",
    "我们现在通常只需要几百个，没有\n",
    "改变两者的维度\n",
    "输入或隐藏的表示。\n",
    "为参数的大幅减少付出的代价\n",
    "我们的特征现在是平移不变的\n",
    "我们的层只能包含本地信息，\n",
    "确定每个隐藏激活的值时。\n",
    "所有的学习都依赖于施加归纳偏见。\n",
    "当这种偏见与现实相符时，\n",
    "我们得到了有效的模型样本\n",
    "这很好地概括了看不见的数据。\n",
    "但当然，如果这些偏见与现实不符，\n",
    "例如，如果图像不是平移不变的，\n",
    "我们的模型甚至可能难以适应我们的训练数据。\n",
    "\n",
    "\n",
    "## 卷积\n",
    "\n",
    "在继续之前，我们应该简要回顾一下\n",
    "为什么上述操作被称为*卷积*。\n",
    "在数学中，两个函数之间的卷积，\n",
    "假设$f, g: \\mathbb{R}^d \\to R$被定义为\n",
    "\n",
    "$$[f \\circledast g](x) = \\int_{\\mathbb{R}^d} f(z) g(x-z) dz.$$\n",
    "\n",
    "也就是说，我们测量了$f$和$g$之间的重叠\n",
    "当一个函数被\"翻转\"并移位 $x$ 。\n",
    "每当我们有离散对象时，积分就变成和。\n",
    "例如，对于$\\ell_2$上定义的向量，即：\n",
    "可平方和的无限维向量集\n",
    "当索引运行在 $\\mathbb{Z}$ 上时，我们得到以下定义。\n",
    "\n",
    "$$[f \\circledast g](i) = \\sum_a f(a) g(i-a).$$\n",
    "\n",
    "对于二维数组，我们有一个对应的和\n",
    "指数 $(i, j)$ 分别代表 $f$ 和 $(i-a, j-b)$ 代表 $g$ 。\n",
    "这看起来与上面的定义相似，但有一个主要区别。\n",
    "我们不是使用 $(i+a, j+b)$，而是使用差异。\n",
    "不过，请注意，这种区别主要是表面上的\n",
    "因为我们总是可以通过使用 $\\tilde{V}[a, b] = V[-a, -b]$\n",
    "获取 $h = x \\circledast \\tilde{V}$。\n",
    "我们最初的定义更恰当\n",
    "描述了一种*互相关*。\n",
    "我们将在下一节回到这一点。\n",
    "\n",
    "\n",
    "## Waldo 回顾\n",
    "\n",
    "回到我们的沃尔多探测器，让我们看看这是什么样子。\n",
    "卷积层选择给定大小的窗口\n",
    "并根据掩码 $V$对强度进行加权，如 :numref:`fig_waldo_mask`。\n",
    "我们的目标可能是学习一个模型\n",
    "无论什么地方的\"waldoness\"最高，\n",
    "我们应该在隐藏层激活中找到一个峰值。\n",
    "\n",
    "<img src=\"https://github.com/d2l-ai/d2l-en/blob/master/img/waldo-mask.jpg?raw=true\" width=\"400px\"/>\n",
    "\n",
    "\n",
    ":label:`fig_waldo_mask`\n",
    "\n",
    "\n",
    "这种方法只有一个问题。\n",
    "到目前为止，我们幸福地忽略了图像是由\n",
    "共有3个通道：红色、绿色和蓝色。\n",
    "实际上，图像不是二维对象\n",
    "而是 $3^{\\mathrm{rd}}$ 阶张量，\n",
    "以高度、宽度和*通道*为特征，\n",
    "例如，形状为 $1024 \\times 1024 \\times 3$ 像素。\n",
    "虽然前两个轴涉及空间关系，\n",
    " $3^{\\mathrm{rd}}$ 可以被视为赋值\n",
    "*每个像素位置*的多维表示。\n",
    "\n",
    "因此，我们将 $\\mathbf{x}$ 索引为 $x[i, j, k]$。\n",
    "卷积掩模必须进行相应的调整。\n",
    "我们现在有了 $V[a, b, c]$，而不是 $V[a, b]$。\n",
    "\n",
    "此外，正如我们的输入由 $3^{\\mathrm{rd}}$ 阶张量组成，\n",
    "事实证明，采用类似的公式是一个好主意\n",
    "我们的隐藏表示为 $3^{\\mathrm{rd}}$ 阶张量。\n",
    "换句话说，不是只有一次激活\n",
    "对应于每个空间位置，\n",
    "我们需要一个完整的隐藏激活向量\n",
    "对应于每个空间位置。\n",
    "我们可以把隐藏的表象想象为\n",
    "许多二维网格相互叠加。\n",
    "在输入中，这些有时被称为*通道*。\n",
    "它们有时也被称为“要素地图”，\n",
    "因为每一个都提供了一组空间化的集合\n",
    "将学习到的特征添加到后续层。\n",
    "直觉上，你可能会想象在较低的层，\n",
    "一些通道可以专门识别边缘，\n",
    "其他人需要识别纹理等。\n",
    "为了在输入和隐藏激活中支持多个通道，\n",
    "我们可以将第四个坐标添加到 $V$: $V[a, b, c, d]$。\n",
    "把我们所有的东西放在一起：\n",
    "\n",
    "$$h[i, j, k] = \\sum_{a = -\\Delta}^{\\Delta} \\sum_{b = -\\Delta}^{\\Delta} \\sum_c V[a, b, c, k] \\cdot x[i+a, j+b, c].$$\n",
    "\n",
    "这是卷积神经网络层的定义。\n",
    "我们仍有许多行动需要解决。\n",
    "例如，我们需要弄清楚如何组合所有激活\n",
    "到单个输出（例如，图像中是否有Waldo*anywhere*）。\n",
    "我们还需要决定如何高效地计算，\n",
    "如何组合多层，\n",
    "适当的激活功能，\n",
    "以及如何做出合理的设计选择\n",
    "产生在实践中有效的网络。\n",
    "我们将在本章剩余部分讨论这些问题。\n",
    "\n",
    "\n",
    "## 总结\n",
    "\n",
    "* 图像中的平移不变性意味着图像的所有面片将以相同的方式处理。\n",
    "* 局部性意味着只有一小部分像素将用于计算相应的隐藏激活。\n",
    "* 输入和输出通道允许我们的模型在每个空间位置捕捉图像的多个方面。\n",
    "\n",
    "## 练习\n",
    "\n",
    "1. 假设卷积掩码的大小为 $\\Delta = 0$。\n",
    "   显示在这种情况下卷积掩饰\n",
    "   为每组通道独立实现MLP。\n",
    "1. 为什么翻译不变性毕竟不是个好主意？\n",
    "   什么时候允许猪飞可能没有意义？\n",
    "1. 在决定如何做时，我们必须处理哪些问题\n",
    "   处理对应于像素位置的激活\n",
    "   在图像的边界处？\n",
    "1. 描述一个类似的音频卷积层。\n",
    "1. 你认为卷积层也适用于文本数据吗？\n",
    "   为什么？\n",
    "1. 证明 $f \\circledast g = g \\circledast f$。\n"
   ]
  }
 ],
 "metadata": {
  "kernelspec": {
   "display_name": "Python 3 (ipykernel)",
   "language": "python",
   "name": "python3"
  },
  "language_info": {
   "codemirror_mode": {
    "name": "ipython",
    "version": 3
   },
   "file_extension": ".py",
   "mimetype": "text/x-python",
   "name": "python",
   "nbconvert_exporter": "python",
   "pygments_lexer": "ipython3",
   "version": "3.7.2"
  }
 },
 "nbformat": 4,
 "nbformat_minor": 2
}
